Character.ai и Google се споразумяха да уредят съдебни дела за самоубийства на тийнейджъри
Гугъл и започващата компания за изкуствен интелект Character.ai се споразумяха да уредят голям брой правосъдни каузи от фамилии на младежи, които са умряли от самоубийство или са се самонаранили след взаимоотношение с чатботовете на платформата.
В някои от първите съглашения в случаи от този вид, фамилии в щати, в това число Флорида, Колорадо, Тексас и Ню Йорк са се съгласили по принцип да договарят за изискванията за преустановяване на техните искове, съгласно правосъдните документи.
Споразуменията идват с увеличение на контрола върху въздействието върху потребителите, изключително младежите, които се привързват прочувствено към спътниците на чатбота.
Коалиция от 42-ма основни прокурори на Съединени американски щати — в това число от Пенсилвания, Ню Джърси и Флорида — предишния месец писа до водещи групи за изкуствен интелект, в това число Гугъл и Character.ai, с цел да изисква по-строги защитни ограничения и по-стриктно тестване.
Щатските разпореждания за чатботовете са признати в Калифорния и Ню Йорк, само че федералните правила към момента не са наложени.
Случаите включват диалози с чатботове от Character.ai, който предлага разнообразни AI персони, с които потребителите могат да беседват.
Стартът е учреден през 2021 година от някогашни инженери на Гугъл, Ноам Шазир и Даниел Де Фрейтас. През 2024 година двойката се върна на Гугъл в договорка за 2,7 милиарда $, която включваше лицензиране на технологията на стартъпа.
Съдебните каузи включват и Гугъл въз основа на връзките й с Character.ai. Семейства на други младежи към момента водят каузи против съперничещи AI групи, в това число OpenAI.
Едно от делата за Character.ai е заведено от Меган Гарсия, майката на Sewell Setzer III, в Орландо, Флорида. 14-годишното момиче умря от самоубийство, откакто взаимодейства с чатбот, моделиран след Даенерис Таргариен, героя от Игра на тронове.
Той участваше в полови диалози и говореше за „ [да се прибере] вкъщи при [нея] “ директно преди да се самоубие, съгласно преписите на техните диалози.
Гарсия свидетелства в Сената на Съединени американски щати през септември, като прикани законодателите да държат „ фирмите и инвеститорите ... съдебно виновни, когато умишлено основават нездравословни AI технологии, които убиват деца ”.
Character.ai и юристите, представляващи фамилиите, отхвърлиха коментар. Гугъл не отговори незабавно на искане за коментар.
В правосъдните документи не се признава никаква отговорност или обезщетение, а Character.ai преди този момент отхвърли да е направил нарушаване.
През октомври Character.ai забрани на лица под 18 години да приказват с чатботове на своята платформа в отговор на възходящата рецензия против младежите, ангажирани с платформата.
Страните сега договарят за изискванията на съглашение, което евентуално ще включва парична отплата. Семействата в началото желаеха финансова отплата за прочувствен стрес, медицински разноски и разноски за заравяне, както и наказателни вреди.
„ В светлината на сложността на такова съглашение, страните се нуждаят от в допълнение време, с цел да завършват съглашение за споразумяване и да извършат нужните заплащания за осъществяване на съглашението “, се споделя в тексаската документи.
Случаят в Тексас включва 17-годишен юноша, който е имал връзка с чатбот Character.ai, с който е обсъждал самонараняване. В обособен чат чатботът предложи убийството на родителите му да е рационален отговор на ограничението на времето му пред екрана.
Споразуменията бяха докладвани за първи път от The Wall Street Journal.
